5.3 Boosting

• 用多个较弱的模型组合成强的模型，得到的偏差较小
• 用n步训练n个弱学习器
  • 每步训练一个弱模型hi，评估误差
  • 下一步重新采样数据，根据上一步的误差重新训练
• 用决策树举例，有GBDT（gradient boosting decision tree）
  • 用几个只有两三层的决策树作为learner，然后顺序训练这些决策树

References

5.3 Boosting【斯坦福21秋季：实用机器学习中文版】_哔哩哔哩_bilibili